ExTrAI – PoC: muss es immer ChatGPT sein, oder genügen lokale KI-Modelle?

Das Pilotprojekt ExTrAI (Extraktion von Auszubildenden Informationen) ist ein Proof of Concept (PoC) für eine Anwendung um Fakten aus unstrukturierten Textdokumenten, insbesondere Bewerbungen, zu extrahieren und sie anschließend strukturiert und übersichtlich darzustellen. Eine Möglichkeit dies zu realisieren ist der Einsatz von KI: einfach die Dokumente und die Fragen zum Extrahieren der Fakten an ChatGPT hochladen. Doch was passiert, wenn die Nutzung eines Cloud basierten KI-Services nicht möglich ist?

In diesem Kontext konzentriert sich ExTrAI hauptsächlich darauf praktische Erfahrungen zu sammeln, wenn ausschließlich lokale, nicht selbst trainierte, KI-Modelle verwendet werden dürfen. Der Vortrag liefert interessante Einblicke in die gesammelten Praxiserfahrungen sowie die Herausforderungen beim Einsatz und der Kombination von mehreren lokalen KI-Modellen.